นายกร เติบโตที่บ้านเทเวศร์ซึ่งเป็นบ้านของ พล.ต.อ.เผ่า ศรียานนท์ ซึ่งมีศักดิ์เป็นลุงเขยทางฝ่ายมารดา และเป็นที่ทราบกันว่า " นายกรเป็นหลานน้าชาติ " เนื่องจากมารดาของนายกร เป็นพี่สาวแท้ๆ ของ พล.อ. ชาติชาย ชุณหะวัณ อดีตนายกรัฐมนตรี ญาติอีกคนที่สนิทสนมและเป็นผู้ตั้งชื่อให้กับนายกร คือ พล.ต.อ.ประมาณ อดิเรกสาร ผู้มีศักดิ์เป็นน้าเขย

นามสกุล "ทัพพะรังสี" เป็นนามสกุลพระราชทาน จาก พระบาทสมเด็จพระมงกุฎเกล้าเจ้าอยู่หัว ให้แก่ เจ้าพระยานราธรหิรัญรัฐ (เยื้อน ทัพพะรังสี)ผู้เป็นอดีตเจ้าคลังจังหวัดสงขลาและเป็นพ่อของบุษยา รังสี นักร้องของวงดนตรีสุนทราภรณ์และมีศักดิ์เป็นปู่ของนายกร ทัพพะรังสี

นายกร สมรสกับ นางรพีพรรณ ทัพพะรังสี (สกุลเดิม ถาวรธาร) บุตรี นายชาญไชย ถาวรธาร อดีตรองปลัดกระทรวงอุตสาหกรรม มีบุตรชาย 2 คน คือ นายกฤตพณ ทัพพะรังสี (โก้) และ นายกมลสุทธิ์ ทัพพะรังสี (ก้อง)

นายกร ได้ชื่อว่าเป็นคนรักครอบครัวมาก มักหาเวลาที่จะเล่นดนตรีกับครอบครัว หรือเล่นกีฬาโดยเฉพาะแบดมินตัน กับครอบครัวอยู่เสมอ และในวันหยุดสุดสัปดาห์ มักชวนภรรยาและบุตรชายไปเที่ยวต่างจังหวัด ส่วนในวันปกติก็มักเลิกงานไม่เกิน 1 ทุ่ม และหลีกเลี่ยงงานเลี้ยงตอนเย็น เพื่อกลับบ้านรับประทานอาหารค่ำพร้อมหน้าพร้อมตากันในครอบครัว

ด้านรสนิยมส่วนตัว นายกรเป็นผู้ที่นิยมความเป็นไทย ชอบฟังและร้องเพลงลูกทุ่ง และมีส่วนอย่างมากในการผลักดันให้ เพลงลูกทุ่ง กลับมาได้รับความนิยมในปัจจุบัน นอกจากนี้ยังเป็นผู้เห็นคุณค่าของภูมิปัญญาแพทย์แผนไทย โดยการผลักดันให้มีกฎหมายคุ้มครองแพทย์แผนไทย

นายกรชอบสวมสร้อยแขวน พระพุทธชินราช ซึ่งเป็นพระคู่บารมี สมเด็จพระนเรศวรมหาราช และมักมีสายสิญจน์ผูกที่ข้อมือ ชอบดื่มน้ำตาลสด น้ำอ้อย และไม่ชอบดื่มน้ำอัดลม หากหิวมากก่อนถึงเวลาอาหารค่ำจะนิยมรับประทานกล้วยตาก

นายกรชอบออกกำลังกาย และเล่นกีฬาได้ดีหลายอย่าง โดยเฉพาะกีฬา แบดมินตัน ที่โปรดปรานถึงขนาดนำลูกขนไก่มาห้อยประดับหน้ารถ และได้ชื่อว่ามีฝีมือเข้าขั้นคนหนึ่ง นายกรเป็นผู้หนึ่งที่มีบทบาทส่งเสริมการเล่นแบดมินตัน โดยดำรงตำแหน่งเป็น นายกสมาคมแบดมินตันแห่งประเทศไทย และเคยดำรงตำแหน่งประธานสหพันธ์แบดมินตันโลก ในระหว่างปี 2001-2005